آیا توافق دوجانبه در هوش مصنوعی جلوگیری از بحرانهای امنیتی را به دنبال دارد؟
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، در بیانیه دیروز کاخ سفید، یک بند کوتاه در میان توافقهای اقتصادی و سیاسی نشست ترامپ و شی جینپینگ از توافق مهمی خبر داد: آمریکا و چین یک کانال ارتباطی دوجانبه برای حوادث هوش مصنوعی ایجاد خواهند کرد.
در همان سند، دو طرف همچنین ایجاد «گفتوگوی ابرهوش» را برای تبادل دیدگاه درباره مزایا و خطرات این فناوری اعلام کردند و مقرر شد دور بعدی این گفتوگو تا نوامبر ۲۰۲۶ برگزار شود؛ بنابراین آنچه اکنون قطعی است، توافق سیاسی برای ایجاد این کانال است؛ نه آغاز به کار یک خط اضطراری با جزئیات عملیاتی منتشرشده.
ایده این کانال یک هفته قبل از توافق روی میز آمده بود
ریشه این توافق به مذاکرات ۲۰ سپتامبر در نیویورک بازمیگردد؛ زمانی که اسکات بسنت، وزیر خزانهداری آمریکا، و هی لیفنگ، معاون نخستوزیر چین، درباره ایجاد سازوکاری برای اطلاعرسانی حوادث هوش مصنوعی گفتوگو کردند.
بسنت توضیح داده بود که این سازوکار باید حوادثی را پوشش دهد که به سطح امنیت ملی میرسند و هدف آن افزایش شفافیت میان دو قدرت اصلی هوش مصنوعی جهان است. او گفت دو طرف پیشتر در ماه مه درباره گفتوگوی هوش مصنوعی صحبت کرده بودند، اما آن چارچوب رسمی نشده بود.
چهار روز بعد، رویترز گزارش داد که مقامهای دو کشور قرار است گفتوگو درباره ایمنی هوش مصنوعی و پروتکلهای ارتباط اضطراری را ادامه دهند.
در آن مرحله، موضوعاتی مانند عاملهای غیرقابلکنترل، حملات سایبری، استفاده تسلیحاتی از هوش مصنوعی و حفاظت از زیرساختهای حیاتی در میان خطرات مورد بررسی قرار گرفته بود؛ بنابراین کانال جدید از ابتدا صرفاً برای خطاهای نرمافزاری روزمره طراحی نشده بود؛ بحث از حوادثی آغاز شد که توانایی تبدیلشدن به بحران میان دو کشور را دارند.
«تلفن قرمز» نام رسمی نیست، اما منطق آن مشابه است
جزئیات منتشرشده هنوز نمیگوید این کانال دقیقاً یک خط تلفنی، سامانه پیامرسان رمزگذاریشده، مرکز هماهنگی مشترک یا شبکهای از نقاط تماس دولتی خواهد بود. از همین رو مقایسه آن با «تلفن قرمز» دوران جنگ سرد صرفاً یک تشبیه رسانهای است.
تفاوت مهم این است که بحران هوش مصنوعی میتواند بدون شلیک حتی یک گلوله آغاز شود: یک عامل خودکار ممکن است در یک سامانه خارجی رفتار پیشبینینشده نشان دهد، یک حمله سایبری با استفاده از مدل هوش مصنوعی انجام شود یا یک خطای زنجیرهای، زیرساختهای حساس را تحت تأثیر قرار دهد.
در چنین وضعیتی، اولین نیاز دولتها میتواند اطمینان از این باشد که آنچه در طرف مقابل رخ داده، حمله عمدی یک دولت بوده یا رفتار ناخواسته یک سامانه.
مسئله اصلی، تشخیص حادثه پیش از تبدیلشدن آن به بحران است
کارشناسان در تحلیل سازوکار پیشنهادی میگویند یک کانال کارآمد برای هوش مصنوعی باید بیش از یک شماره تماس باشد.
به نوشته بنیاد کارنگی، چنین چارچوبی نیازمند نقاط تماس دائمی، متخصصان فنی در کنار دیپلماتها و امکان تبادل شواهد دیجیتال مانند گزارش فعالیت مدل و رویدادنگارهای سامانه است.
دلیل این موضوع روشن است: در یک حادثه هوش مصنوعی، سرعت واکنش اهمیت دارد، اما بدون داده فنی نمیتوان فهمید مدل چه کاری انجام داده، کدام بخش توسط انسان تعیین شده و کدام رفتار ناشی از خود سامانه بوده است. این مرکز همچنین پیشنهاد کرده کانال ارتباطی با یک مسیر امن جداگانه برای تبادل دادههای فنی همراه شود. اینها پیشنهاد کارشناسی هستند و هنوز بخشی از توافق رسمی واشنگتن و پکن محسوب نمیشوند.
یک نمونه واقعی، دلیل اهمیت این سازوکار را نشان میدهد
در ماههای اخیر، آزمایشهای ایمنی شرکتهای هوش مصنوعی نشان دادهاند عاملهای متصل به ابزار میتوانند هنگام برخورد با محدودیت، مسیر دیگری را امتحان کنند و حتی به زیرساختهای خارج از محیط آزمایش برسند.
شورای امنیت سازمان ملل نیز در سپتامبر حوادث مرتبط با عاملهای هوش مصنوعی و خطر از دسترفتن کنترل انسانی را بررسی کرد. همین رخدادها باعث شده بحث «حادثه هوش مصنوعی» از یک موضوع داخلی شرکتها به مسئلهای در سطح امنیت بینالمللی تبدیل شود.
پکن و واشنگتن همزمان با ایجاد این کانال، همچنان در حال رقابت بر سر تراشه، مراکز داده، مدلهای پیشرفته و دسترسی به زیرساخت محاسباتی هستند.
شی جینپینگ در دیدار ۲۴ سپتامبر گفت چین و آمریکا با وجود رقابت در هوش مصنوعی، «دلایل بیشتری برای همکاری» دارند و باید درباره خطرات و مزایای فناوری گفتوگو کنند و از سوءاستفاده جلوگیری کنند. او همچنین بر ضرورت باقیماندن هوش مصنوعی تحت کنترل انسان تأکید کرد. این موضع در بیانیه رسمی وزارت خارجه چین نیز ثبت شده است.
در سوی آمریکا، دولت ترامپ همزمان سیاست حفظ سرعت توسعه را دنبال میکند. کاخ سفید در همان سندی که توافق کانال حوادث را اعلام کرد، از ایجاد «گفتوگوی ابرهوش» سخن گفت و واژه «ابرهوش» را جایگزین «هوش مصنوعی» در این چارچوب قرار داد.
پیش از نشست نیز ترامپ گفته بود گاردریل آمریکا وزارت دادگستری است و با مقررات جدیدی که سرعت توسعه را محدود کند موافق نیست؛ بنابراین توافق جدید را نباید معادل پذیرش یک نظام مشترک جهانی برای محدودکردن توسعه هوش مصنوعی دانست؛ این توافق مشخصاً بر ارتباط در زمان وقوع حادثه متمرکز است.
آمریکا و چین پیش از این هم کانالهای بحران داشتهاند
واشنگتن و پکن پیش از این برای جلوگیری از تشدید ناخواسته بحرانهای نظامی و امنیتی، کانالهای ارتباطی متعددی داشتهاند.
مسئله تازه این است که یک حادثه هوش مصنوعی میتواند در چند ثانیه از مرزها عبور کند و منشأ آن نیز در لحظه مشخص نباشد. برای مثال، اگر یک عامل خودکار در یک سامانه ابری فرامرزی رفتار مخرب نشان دهد، تشخیص اینکه منشأ حادثه یک دولت، یک گروه خصوصی، یک حمله سایبری یا خودمختاری ناخواسته نرمافزار بوده، میتواند دشوار باشد.
به همین دلیل، بسنت تأکید کرده بود که افزایش شفافیت میان دو قدرت اصلی هوش مصنوعی برای جلوگیری از سوءبرداشت اهمیت دارد.
با توافق ۲۵ سپتامبر، بنابراین یک لایه جدید به مدیریت رقابت آمریکا و چین اضافه شده است: آنها قرار نیست رقابت هوش مصنوعی را متوقف کنند، اما توافق کردهاند هنگام وقوع یک حادثه جدی، مسیر مستقیمی برای اطلاعرسانی و گفتوگو داشته باشند.
هنوز مشخص نیست این کانال چه زمانی عملیاتی میشود، چه نهادهایی در دو طرف مسئول پاسخ خواهند بود، چه نوع حوادثی مشمول اعلام خواهند شد و آیا دادههای فنی نیز میان دو کشور مبادله میشود. پاسخ به همین جزئیات تعیین میکند که این ابتکار صرفاً یک تعهد سیاسی باقی بماند یا به نخستین سازوکار واقعی مدیریت بحران در عصر عاملهای خودمختار تبدیل شود.